Sperrle menyertai Freikorps pada pengakhiran perang selepas pembubaran Perkhidmatan Udara, sebelum menyertai semula Reichswehr. Oleh kerana Jerman tidak dibenarkan mempunyai unit udara, beliau berkhidmat di posisi logistik dan markas tentera darat. Selepas pihak Nazi mengambil alih kuasa, sebuah tentera udara baru Luftwaffe, ditubuhkan.[2]

Beliau memasuki Luftwaffe yang baru dibentuk pada tahun 1935 di mana beliau kemudiannya dinaikkan pangkat ke Generalmajor (bersamaan Brigedier Jeneral AS). Beliau ketika itu merupakan komander pertama Condor Legion semasa Perang Saudara Sepanyol sehingga Oktober 1937, bersama Wolfram Freiherr von Richthofen yang berkhidmat sebagai Ketua Stafnya. Selepas itu beliau dinaikkan pangkat ke General der Flieger (bersamaan Leftenan Jeneral AS).[2]